Bir “Yapay Zeka” doktor olabilir mi?

Yapay Zeka (YZ) Sağlık Alanına da Geldi. Ve kalıcıdır! Dünyanın birçok yerinde, yapay zeka süreçleri optimize etmek, teşhis doğruluğunu artırmak ve özellikle yetersiz hizmet alan veya kaynakları kısıtlı bölgelerde bakıma erişimi genişletmek için kullanılıyor. Anomalileri insan uzmanlardan daha doğru bir şekilde tespit eden algoritmalardan gelişmiş uzaktan izleme araçlarına kadar dönüştürücü potansiyel muazzamdır. Ancak hastanın hem sağlığı hem de temel haklarının korunması açısından önemli riskler de söz konusudur. Yapay Zeka'nın sağlık alanındaki faydalarından yararlanabilmemiz için, onun etik, güvenli ve adil bir şekilde kullanılmasının sağlanması esastır. Bu süreçte hekimlerin karar alma sürecinin merkezinde olması, teknolojinin sorumlu bir şekilde ve hastaların çıkarları doğrultusunda uygulanmasını sağlaması gerekiyor.

Klinik bağlamda yapay zeka, acil servis triyajı gibi vakalara öncelik vermek ve bekleme listesi yönetimini iyileştirmek için kullanıldığı alanlarda değerini göstermiştir. Ayrıca yapay zeka, tıbbi görüntülerin analizinde de etkili bir rol oynamış olup, sistemler etkileyici bir doğrulukla desenleri ve anomalileri tespit edebilmektedir. 2019 yılında yayınlanan bir araştırmada, dijital röntgenlerde kötü huylu akciğer nodüllerini tespit etmede yapay zeka algoritmasının radyologlarla performansı karşılaştırıldı. Yapay zeka algoritması, radyologlarınkine benzer şekilde, kötü huylu nodülleri tespit etmede %94,1 (1) oranında bir duyarlılık gösterdi.

Ayrıca karmaşık bilişsel görevlerdeki performanslarıyla bilinen Google'ın Med-PaLM 2 ve open-AI'nın GPT-4 gibi sistemleri, birçok alanda tıp uzmanlığı adaylarına benzer yetenekler göstermiştir.

Tüm bu coşkuya rağmen, yapay zekanın sağlık alanında riskleri gerçek ve önemlidir. Önyargılı verilerle eğitildiğinde, yapay zeka mevcut eşitsizlikleri sürdürebilir, hatta daha da kötüleştirebilir. Gerke ve ark. tarafından açıklanan vaka. (2020) Siyah hastaların riskini hafife alan bir algoritmanın varlığı bir uyarıdır. JAMA Internal Medicine (2023), acil servislerde kullanılan triyaj sistemlerinde etnik azınlıkları orantısız bir şekilde cezalandıran algoritmik önyargılar olduğunu bildirdi. Buna, doktorların klinik yargılarını bir kenara bırakarak yapay zeka önerilerine körü körüne güvenmesi anlamına gelen "otomasyon yanlılığı" olgusu da ekleniyor.

Bu risk göz önüne alındığında, tüm doktorların bilinçli ve kararlı kararlar alabilmek için temel olan liderlik, iletişim ve eleştirel düşünme becerilerini geliştirmeleri önemlidir. Liderlik, sürece bütünleşik bir bakış açısıyla yaklaşmayı sağlarken, empati, iletişim ve ekip yönetimi gibi yumuşak beceriler , yapay zeka ile etkileşimin insancıl ve işbirlikçi bir şekilde yapılmasını sağlamak için hayati önem taşır. Eleştirel yargı, teknolojinin risk/fayda oranının gerektiği gibi dikkate alınarak, avantajları ve olası olumsuz etkileri dikkatlice değerlendirilerek akıllıca kullanılmasını sağlar. Bu alanda psikolojik güvenlik kavramını da gündeme getirmek önemlidir. Doktorların, sonuçlarından korkmadan AI önerilerini sorgulamaları teşvik edilmeli ve teşvik edilmelidir; bu, Dijital Sağlıkta daha güvenli ve daha etkili bir karar alma ortamını teşvik edecektir.

Derin öğrenmeye dayalı pek çok sistem, kararların nasıl alındığına dair hiçbir şeffaflığın olmadığı, gerçek anlamda kara kutular olmaya devam ediyor. Avrupa Komisyonu'nun "Açıklanabilir Yapay Zeka" gibi girişimleri devam etse de bunların klinik uygulamaları hâlâ sınırlıdır. Yapay zeka modellerinde kullanılan verilerin şeffaflığı ve kalitesi, modelin performansını anlamak için olmazsa olmazdır. Tabipler Birliği, yapay zekanın sağlık alanında kullanımının etik, bilimsel ve güvenlik kriterlerine uygun olmasını sağlayarak, uluslararası standartlara uygun olarak aktif, dikkatli ve düzenleyici bir rol üstlenmelidir.

Yapay zeka tıbbi işlevi ortadan kaldırmayacak ama profesyonelin eleştirel düşünme ve klinik sorumluluktan vazgeçmesi durumunda özünü boşaltabilir. Yapay zeka sistemlerinin klinik alanda uygulanması, tıbbi eylemi tanımlama biçimimizi kaçınılmaz olarak değiştirecektir. Yapay zeka değerli bilgiler sağlasa da tedavi veya teşhis konusundaki nihai karar hekimin sorumluluğundadır. Temel sorulardan biri, bir yapay zeka sistemindeki hatalardan veya başarısızlıklardan kimin sorumlu tutulacağının belirlenmesidir: Sistemi kullanan doktor mu, sistemi geliştiren kuruluş mu, yoksa uygulayan hastane mi? Her yapay zeka sisteminin, uygulanmasının gözetiminden ve izlenmesinden sorumlu bir klinik direktöre sahip olmasını savunmalı mıyız?

Öte yandan ilaçlarda olduğu gibi yapay zeka sistemlerinin de klinik endikasyonları, duruma göre farklı duyarlılık ve özgüllükleri ve yan etkileri olacaktır. Yapay zeka uygulamasının hastalar için beklenmedik riskler oluşturmamasını sağlamak adına yan etkilerin izlenmesi ve yönetilmesi büyük önem taşıyor. Sistemlerin güvenli, etkili ve klinik uygulamalarla uyumlu kalmasını sağlamak için yapay zeka modellerinin sürekli izlenmesi ve uyarlanması kritik önem taşıyacaktır.

Avrupa hukuk çerçevesi sağlam adımlar attı. Avrupa Birliği'nin 2024 yılında onaylanan Yapay Zeka Yasası, sağlık hizmetlerine uygulanan yapay zeka sistemlerinin "yüksek riskli" olarak kabul edildiğini ve bu nedenle sıkı gerekliliklere tabi olduğunu belirtiyor: insan denetimi, açıklanabilirlik, denetimler, önyargıların azaltılması ve merkezi kayıt. ABD'de FDA, tıbbi uygulamalara sahip 500'den fazla algoritmayı onaylamış olmasına rağmen, NEJM AI (2024) dergisinde yakın zamanda yapılan bir analiz, bu sistemlerin yalnızca %5'inin randomize klinik deneylerle doğrulandığını ortaya koydu ve bu da onayların bilimsel sağlamlığı konusunda endişelere yol açtı.

Dijital Sağlık Stratejik Planı (2023), doğrulanmış algoritmaların ulusal bir deposunun oluşturulmasını öngörmektedir, ancak bu önlemin uygulanması henüz tamamlanmamıştır. Portekiz'de henüz yapay zeka yasası gereğince yapay zeka algoritmalarının onaylanması için gerekli olan bir onaylanmış kuruluş bulunmuyor, bu da ulusal kurumların diğer Avrupa ülkelerine yönelmesini zorunlu kılıyor. Portekiz'de tıp eğitimi de yetersiz: 2021'den beri Almanya veya Finlandiya'da yaşananların aksine, dijital okuryazarlık ve yapay zeka konusunda resmi modüller bulunmuyor.

Öte yandan, yeni sağlık teknolojilerini uygulamaya yönelik pek çok girişim, yetersizlik veya etkinlikten değil, paradoksal bir biçimde sağlık hizmetlerinin kullanımını en iyi hale getirmeye çalışan kurumları cezalandıran finansman ve örgütsel modellerden dolayı başarısızlığa uğramaktadır. Dolayısıyla kaynakların daha etkin yönetilmesini sağlayacak ve sektörde teknolojik yeniliklerin benimsenmesini teşvik edecek tedbirlerin alınması karar vericilerin sorumluluğundadır.

Bu gerçek karşısında Tabipler Birliği'nin aktif ve stratejik bir pozisyon alması gerekmektedir. Amerikan Önleyici Tıp Kurulu veya Birleşik Krallık'taki Klinik Bilişim Fakültesi gibi örneklerden ilham alarak, Klinik Bilişim ve Dijital Sağlık alanında resmi bir yeterlilik oluşturulmasını teşvik etmek. Tabipler Birliği, yeniliklerin hızını pasif bir şekilde takip etmekten çok, teknik görüşler yayınlayan, sertifikalı eğitimi teşvik eden ve NHS'de kullanılan tüm algoritmaların bağımsız olarak doğrulanmasını gerektiren düzenleyici bir kurum olmalıdır. Ayrıca ulusal ve Avrupa düzenleyici yapıları içinde temsilci bir ses rolünü üstlenmeli, etiğin ve klinik yargının tıbbi uygulamanın merkezinde kalmasını sağlamalıdır.

Dijital dönüşüm sadece teknolojik alanla sınırlı değil; kültürel ve etik alanları da kapsamalıdır. Yapay zeka ne kadar güçlü olursa olsun bir araç olarak anlaşılmalı, bir ikame olarak değil. Tıbbi uygulama bilim gerektirir, evet; ancak aynı zamanda empati, ayırt etme yeteneği ve hümanizm de gerektirir. Gerçek ilerleme bu dengede yatar.

C Listesi, SRNOM için Güvenle Düzen programının temellerinden biri sağlık hizmetlerinde dijital dönüşümün sağlanması olup, bu geçişin herkes için mümkün olduğunca güvenli ve akıcı olmasını sağlama taahhüdü yer almaktadır. C Listesi ekibi, klinisyenlerin gerekli eğitimi almasını ve dijital araçların etik ve sorumlu bir şekilde uygulanmasını sağlamaya kendini adamıştır. Dijitalleşmenin başarılı olabilmesi için hem sağlık çalışanları hem de hastalar üzerindeki olumsuz etkinin en aza indirilmesi büyük önem taşıyor. Düzenin liderliği ve C Listesinin özverisi ile yapay zekanın ve diğer teknolojilerin, tıp uygulamalarında güven, emniyet ve insaniyetten ödün vermeden, bakım kalitesini iyileştirecek şekilde ilerlemesini sağlayabiliriz.

(1) Yoo H, Kim KH, Singh R, Digumarthy SR, Kalra MK. Göğüs Radyografilerinde Malign Pulmoner Nodüllerin Tespiti İçin Derin Öğrenme Algoritmasının Doğrulanması. JAMA Ağı Açık. 2020;3(9):e2017135. doi:10.1001/jamanetworkopen.2020.17135